home *** CD-ROM | disk | FTP | other *** search
/ EnigmA Amiga Run 1997 July / EnigmA AMIGA RUN 20 (1997)(G.R. Edizioni)(IT)[!][issue 1997-07 & 08][EAR-CD IV].iso / lightwave / cgplwlist / cgplw00501-00750.txt / 000001_ernie@gaspra.pd.com_Wed Dec 14 17:55:36 PST 1994.msg < prev    next >
Text File  |  1994-12-25  |  2KB  |  50 lines
  1. Article: 502 of comp.graphics.packages.lightwave
  2. Xref: netcom.com comp.graphics.packages.lightwave:502
  3. Path: netcom.com!csus.edu!csusac!charnel.ecst.csuchico.edu!newshost.marcam.com!news.kei.com!ddsw1!news.rtd.com!gaspra.pd.com!ernie
  4. From: Ernie Wright <ernie@gaspra.pd.com>
  5. Newsgroups: comp.graphics.packages.lightwave
  6. Subject: Re: Pentium Bug WAS Re: LightWave 4.0 Delays
  7. Date: Fri, 9 Dec 1994 09:56:54 -0700
  8. Organization: RTD Internet Access, a division of RTD Systems & Networking, Inc.
  9. Lines: 32
  10. Message-ID: <Pine.SUN.3.91.941209095338.9977A-100000@gaspra.pd.com>
  11. References: <3bt0b7$5ae@news.cs.tulane.edu> <3c3vlg$8ri@nnrp.ucs.ubc.ca> <3c51l2$e4u@news.cs.tulane.edu> <Pine.SUN.3.91.941207233425.4133A-100000@gaspra.pd.com> <D0IJBo.5ou@news.arco.com>
  12. NNTP-Posting-Host: pd.com
  13. Mime-Version: 1.0
  14. Content-Type: TEXT/PLAIN; charset=US-ASCII
  15. In-Reply-To: <D0IJBo.5ou@news.arco.com> 
  16.  
  17. >From bdupras@bert.eecs.uic.eduThu Dec  8 22:28:09 1994
  18. Date: Thu, 8 DEC 1994 21:15:37 GMT 
  19. From: Brian Dupras <bdupras@bert.eecs.uic.edu>
  20. Newsgroups: comp.graphics.packages.lightwave
  21. Subject: Re: Pentium Bug WAS Re: LightWave 4.0 Delays 
  22.  
  23. I wrote:
  24.  
  25. > The worst possible relative error is about 0.00006 (6e-5).
  26.  
  27. Brian Dupras (bdupras@bert.eecs.uic.edu) responded:
  28.  
  29. > Really?  Then I must have an error in my Pentium bug.  It seems when
  30. > I divide 1048958.75 by 2.999999048, I get an answer that is about 21
  31. > off.  The error in the chip is something I'm not too concerned about,
  32. > but it's also not just some 7th decimal place screw up.  There are
  33. > combinations that produce surprising results.
  34.  
  35. What you've got is a defect in your understanding of "relative error."
  36. Your answer is wrong by 21 out of 350,000.  Tell me now, what's .00006
  37. times 350,000?  Wanna try "surprising" me again?
  38.  
  39. This isn't just a math trick.  What matters is the size of the error
  40. RELATIVE TO THE ANSWER.
  41.  
  42. Like I said, once every 65 billion divides, the answer is wrong by more
  43. than 1 part in 10 million.  If you're doing prime number research or
  44. aiming the space shuttle, that might be a problem.  I don't think the
  45. rest of us have much to worry about.
  46.  
  47. - Ernie
  48.  
  49.  
  50.